针对多分类学习模型性能会受异常值影响的问题，提出基于Rescaled Hinge损失函数的多子支持向量机（RHMBSVM）。首先，该方法通过引入有界、非凸的Rescaled Hinge损失函数来构建相应的优化问题；然后，利用共轭函数理论将优化问题作等价变换；最后，使用变量交替策略形成一个迭代算法来求解非凸优化问题，该方法在求解的过程中可自动调节每个样本点的惩罚权重，从而削弱了异常值对 K个超平面的影响，增强了鲁棒性。使用5折交叉验证的方法进行数值实验，实验结果表明，在数据集无异常值的情况下，该方法的正确率比多子支持向量机（MBSVM）提升了1.11个百分点，比基于Rescaled Hinge损失函数的鲁棒支持向量机（RSVM-RHHQ）提升了0.74个百分点；在数据集有异常值的情况下，该方法的正确率比MBSVM提升了2.10个百分点，比RSVM-RHHQ提升了1.47个百分点。实验结果证明了所提方法在解决有异常值的多分类问题上的鲁棒性。

针对鲁棒非负矩阵分解（RNMF）的运算规模随训练样本数量逐渐增多而不断增大的问题，提出一种稀疏限制的增量式鲁棒非负矩阵分解算法。首先，对初始数据进行鲁棒非负矩阵分解；然后，将其分解结果参与到后续迭代运算；最后，在对系数矩阵增加稀疏限制的情况下与增量式学习相结合，使目标函数值在迭代求解时下降地更快。该算法在节省运算时间的同时提高了分解后数据的稀疏度。在数值实验中，将所提算法与鲁棒非负矩阵分解算法、稀疏限制的鲁棒非负矩阵分解（RNMFSC）算法进行了比较。在ORL和YALE人脸数据库上的实验结果表明，所提算法在运算时间和分解后数据的稀疏度等方面均优于其他两个算法，并且还具有较好的聚类效果，尤其在YALE人脸数据库上当聚类类别数为3时该算法的聚类准确率达到了91.67%。